IA030
Fundamentos de IA Generativa en Python
La evolución del procesamiento del lenguaje natural y la arquitectura Transformer
Objetivos de aprendizaje
- Analizar las limitaciones de las RNN y LSTM al manejar dependencias a largo alcance
- Definir los fundamentos matemáticos del mecanismo de autoatención
- Descomponer la arquitectura de codificador-decodificador Transformer y sus componentes
- Evaluar el papel de la codificación posicional y la atención multi-cabeza en el modelado de secuencias